home *** CD-ROM | disk | FTP | other *** search
/ NetNews Offline 2 / NetNews Offline Volume 2.iso / news / comp / sys / cbm / 1865 < prev    next >
Encoding:
Internet Message Format  |  1996-08-05  |  1.4 KB
  1. Path: sdcc12.ucsd.edu!cs!galvarez
  2. From: galvarez@cs.ucsd.edu (Guillermo Alvarez)
  3. Newsgroups: comp.sys.cbm
  4. Subject: Re: anyone doing heavy math on a c64?
  5. Date: 5 Feb 1996 23:12:21 GMT
  6. Organization: CSE Dept., U.C. San Diego
  7. Distribution: world
  8. Message-ID: <4f62sl$qmm@sdcc12.ucsd.edu>
  9. References: <4e2l0q$n8f@turing.fwi.uva.nl> <4e5o0k$dp0@news.acns.nwu.edu> <4e84hu$13c@gatekeeper2.svl.trw.com> <4ej26o$qmr@news.acns.nwu.edu> <4f49t9$2q5@madeline.INS.CWRU.Edu>
  10. NNTP-Posting-Host: beowulf.ucsd.edu
  11.  
  12.  
  13. If this is the case, you can add some new commands to BASIC (e.g.
  14. @subtract(a,b,c)) to get subtractions, and implement the arithmetic ops
  15. in ML.  The first chapters of any good book on numerical methods will
  16. tell you how to do this for floating point variables of any level of
  17. precision you want.
  18.  
  19. Of course, the problems of adding/subtracting two numbers of very
  20. different magnitude will remain because they're a consequence of the
  21. floating point scheme...
  22.  
  23.  
  24. In article <4f49t9$2q5@madeline.INS.CWRU.Edu>, hw827@cleveland.Freenet.Edu (Anthony M. King) writes:
  25. |> 
  26. |> Try this on a 128 :  print 23.13 - 22.87   hit RETURN
  27. |> 
  28. |>  Do you get .260000005?
  29. |> 
  30. |> I get that everytime, is that the same result on every 128 or just
  31. |> something messed up on mine?
  32. |> 
  33. |> Can't do heavy math if the machine cant do simple subtraction accurately.
  34. |> -- 
  35. |>    *~-_-~*_-~-_*~-_-~*_-~-_*~-_-~*_-~-_*~-_-~*_-~-_*~-_-~*_-~-_*~-_-~*_-~-_*
  36.